Sau khi diệt họ Viên, Tào Tháo hoàn toàn làm chủ trung nguyên, trở thành lực lượng mạnh nhất Trung Quốc khi đó. Ông tiến hành cải cách triều đình Đông Hán, khôi phục lại chức Thừa tướng và tự mình đảm nhiệm, đưa hàng loạt người thân tín nắm những chức vụ quan trọng trong triều đình cũng như những nơi hiểm yếu.

Các lực lượng chư hầu có địa phận liền kề với ông khi ông mới về Hứa Xương đều đã bị dẹp. Khi đó trong toàn quốc còn lại Lưu Biểu và Lưu Bị ở Kinh châu, Tôn Quyền ở Giang Đông, Trương Lỗ ở Đông Xuyên, Lưu Chương ở Tây Xuyên, Hàn Toại và Mã Đằng ở Tây Lương. Tào Tháo quyết định nam tiến diệt Lưu Biểu và Tôn Quyền là những lực lượng đáng kể nhất trong số các chư hầu còn lại.

Lấy Kinh châu

Lưu Bị từ khi thua Tào Tháo ở Nhữ Nam chạy về Kinh châu theo Lưu Biểu, được sai trấn giữ ở Tân Dã.

Tháng 7 năm 208, Tào Tháo khởi binh nam tiến, đánh Kinh châu. Tháng 8 năm đó, khi quân Tào chưa đến nơi thì Lưu Biểu đã ốm chết. Tháng 9, Tào Tháo tiến đến Tân Dã. Lưu Bị từ khi nghe tin đại quân Tào Tháo kéo đến đã bỏ Tân Dã về Giang Hạ.

Quân Tào áp sát, con nhỏ của Lưu Biểu là Lưu Tông - người được quyền thừa kế - sợ hãi đầu hàng Tào Tháo. Lưu Bị nghe tin Lưu Tông đầu hàng bèn mang hơn 1 vạn dân chạy đến Giang Lăng - nơi chứa lương thảo và vũ khí của Kinh châu - để thế thủ. Tào Tháo chọn 5000 quân kỵ khoẻ ngày đêm đuổi theo, một ngày đi 300 dặm. Khi quân Tào tới Đương Dương - Trường Bản thì bị mãnh tướng Trương Phi đánh chặn, tạm thời phải dừng lại.

Vừa lúc đó sứ giả của Tôn Quyền là Lỗ Túc đến Tràng Bản, gặp được Lưu Bị. Theo lời khuyên của Lỗ Túc, Lưu Bị quyết định liên minh với Tôn Quyền để chống Tào, sai Gia Cát Lượng sang Đông Ngô; bản thân Lưu Bị hợp binh với Quan Vũ về cố thủ ở Giang Hạ với con lớn của Lưu Biểu là Lưu Kỳ.

Tào Tháo thúc quân đuổi tiếp đến Giang Lăng nhưng không thấy Lưu Bị, bèn chiếm lấy kho lương và vũ khí ở đó. Sau đó ông tập hợp đại quân chuẩn bị tiến đánh Tôn Quyền.

Thua trận Xích Bích

Tào Tháo cùng các tướng Tào Nhân, Nhạc Tiến, Tào Thuần, Lý Thông, Mãn Sủng và tướng cũ của Lưu Biểu là Văn Sính dẫn khoảng 22 vạn quân[51] áp sát Giang Đông. Với lực lượng hùng hậu, ông tỏ ra coi thường lực lượng nhỏ yếu của Tôn Quyền, rất tin tưởng vào thắng lợi ở trận này nên không mang theo các danh tướng khác[52]. Ông gửi thư cho Tôn Quyền nói:

Ta vâng mệnh hoàng đế, điếu dân phạt tội, tiến quân xuống nam, Lưu Tông con Lưu Biểu đã trói tay xin hàng; hiện đã chỉnh đốn 80 vạn quân thủy, chuẩn bị đánh nhau với ngươi ở Ngô quận.[53].

Tôn Quyền liên kết với Lưu Bị, sai Chu Du mang 3 vạn quân ra phối hợp với Lưu Bị chống lại.

Thủy quân Tôn-Lưu ngược dòng Trường Giang từ Hán Khẩu-Phàn Khẩu tới Xích Bích, giao tranh với tiền quân của Tào Tháo. Quân Tào đi đường xa, không hợp thủy thổ, bị bệnh dịch hành hạ nên không thể giành được lợi thế trong những trận giao tranh nhỏ ban đầu và buộc phải lui về đóng quân ở Ô Lâm (phía Bắc Trường Giang).

Để giảm sự tròng trành của thuyền chiến (quân Tào không quen thủy chiến hay bị say sóng), Tào Tháo ra lệnh dùng xích sắt nối nhiều thuyền lại với nhau. Quan sát động thái này của Tào Tháo, tướng Hoàng Cái bên Đông Ngô kiến nghị Chu Du dùng kế trá hàng và được Chu Du tán đồng. Hoàng Cái sai người gửi thư trá hàng và Tào Tháo tin theo.

Theo thời gian đã hẹn, đội "hàng binh" của Hoàng Cái đến giữa sông thì các hỏa thuyền bắt đầu được châm lửa và chúng theo gió Đông Nam lao thẳng vào hạm đội của quân Tào. Các thuyền chiến của Tào Tháo nhanh chóng bắt lửa khiến một số lớn binh mã chết cháy trên thuyền hoặc chết đuối dưới sông. Trong lúc quân Tào đang hoảng hốt vì đám cháy thì liên quân Chu Du đã chiếm lĩnh trận địa và chia cắt lực lượng của Tào Tháo, buộc ông phải ra lệnh rút lui sau khi phá hủy một phần số thuyền chiến còn lại.

Tào Tháo cùng bại binh rút lui về phía đường cái Hoa Dung xuyên qua vùng đầm lầy lớn phía Bắc hồ Động Đình. Chu Du và Lưu Bị không ngừng đuổi theo ông cho tới tận Nam Quận. Cuối cùng, thiệt hại nặng nề khiến Tào Tháo phải bỏ miền Nam rút về Nghiệp Quận, để lại Từ Hoảng và Tào Nhân giữ Giang Lăng, Nhạc Tiến giữ Tương Dương và Mãn Sủng giữ Đương Dương.